Технологичните компании искат да изградят изкуствен общ интелект. Но кой решава кога да се постигне AGI?

В ход е конкуренция за създаване на неестествен общ разсъдък, футуристична визия за машини, които са толкоз умни, колкото хората, или най-малко могат да вършат доста неща толкоз добре, колкото и хората.

Постигането на такава идея — нормално наричана AGI — е движещата задача на основателя на ChatGPT OpenAI и приоритет за елитните проучвателен крила на софтуерните колоси Amazon, Гугъл, Meta и Microsoft.

Това също е причина за безпокойствие за международните държавни управления. Водещи учени в региона на изкуствения разсъдък разгласиха проучване в четвъртък в списание Science, предупреждавайки, че непроверените сътрудници на изкуствен интелект с умения за „ дълготрайно обмисляне “ могат да съставляват екзистенциален риск за човечеството.

Но какво тъкмо е AGI и по какъв начин ще разберем по кое време е реализирано? Някога в периферията на компютърните науки, в този момент това е фешън дума, която непрестанно се предефинира от тези, които се пробват да я осъществят.

Какво е AGI?

Да не се бърка с подобните- звучащ генериращ AI — който разказва AI системите зад набора от принадлежности, които „ генерират “ нови документи, изображения и звуци – изкуственият общ разсъдък е по-неясна концепция.

Това не е механически термин, а „ сериозна, въпреки и зле дефинирана идея “, сподели Джефри Хинтън, пионер в региона на изкуствения разсъдък, който е именуван „ кръстникът на изкуствения разсъдък “.

„ Не мисля, че има съглашение какво значи терминът “, сподели Хинтън по имейл тази седмица. „ Използвам го, с цел да значи AI, който е най-малко толкоз добър, колкото хората в съвсем всички когнитивни неща, които хората вършат. “

Хинтън избира друг термин – суперинтелигентност – „ за AGI, които са по-добри от хората. “

Малка група ранни последователи на термина AGI се опитваха да покажат по какъв начин компютърните учени от средата на 20-ти век са си представяли умна машина. Това беше преди проучванията на AI да се разклонят в подполета, които усъвършенстваха профилирани и търговски жизнеспособни версии на технологията - от различаване на лица до гласови асистенти за различаване на тирада като Siri и Alexa.

Майнстрийм проучванията на AI „ се отклониха от първичната визия за изкуствения разсъдък, която първоначално беше много амбициозна “, сподели Пей Уанг, професор, който преподава курс по AGI в Temple University и оказа помощ за организирането на първата AGI конференция през 2008 година

Поставянето на „ G “ в AGI беше сигнал за тези, които „ към момента желаят да създадат огромното нещо. Ние не желаеме да сътворяваме принадлежности. Искаме да изградим мислеща машина, ” сподели Уанг.

Вече ли сме в AGI?

Без ясна формулировка е мъчно да се знае по кое време една компания или група от откриватели ще има са постигнали неестествен общ разсъдък – или в случай че към този момент са го постигнали.

„ Преди двадесет години мисля, че хората с наслада биха се съгласили, че системи със способността на GPT-4 или (на Google) Gemini са постигнали общ разсъдък, съпоставим с това на хората “, сподели Хинтън. „ Да можеш да отговориш повече или по-малко на всеки въпрос по рационален метод би издържал теста. Но в този момент, когато AI може да направи това, хората желаят да трансформират теста. “

Подобрения в „ авторегресивните “ AI техники, които предсказват най-правдоподобната последваща дума в поредност, комбинирани с голяма изчислителна мощ за образование на тези системи върху обилие от данни, доведоха до впечатляващи чатботове, само че те към момента не са тъкмо AGI, който доста хора имаха поради. Достигането до AGI изисква технология, която може да работи също толкоз добре, колкото и хората в огромно многообразие от задания, в това число разсъждения, обмисляне и дарба за учене от опита.

Някои откриватели биха желали да реализират консенсус по отношение на това по какъв начин да го мерят. Това е една от тематиките на идния семинар на AGI идващия месец във Виена, Австрия – първият на огромна изследователска конференция за ИИ.

„ Това в действителност изисква старания и внимание на общността, тъй че взаимно да можем да се споразумеем за някои нещо като класификации на AGI “, сподели уредникът на семинара Jiaxuan You, помощник в Университета на Илинойс Урбана-Шампейн. Една концепция е да се сегментира на равнища по същия метод, по който производителите на коли се пробват да съпоставят пътя сред круиз надзор и изцяло самоуправляващите се транспортни средства.

Други възнамеряват да го схванат сами. Компанията OpenAI от Сан Франциско е упълномощила на своя ръб на шефовете с нестопанска цел - чиито членове включват някогашен министър на финансите на Съединени американски щати - отговорността да взема решение по кое време нейните AI системи са достигнали точката, в която " превъзхождат хората в най-икономически скъпата работа ".

„ Бордът дефинира по кое време сме постигнали AGI “, се споделя в личното пояснение на OpenAI за неговата конструкция на ръководство. Подобно достижение би отрязало най-големия сътрудник на компанията, Microsoft, от правата да комерсиализира такава система, защото изискванията на техните съглашения „ се отнасят единствено за технология преди AGI. “

Опасно ли е AGI?

Хинтън направи световни заглавия предходната година, когато напусна Гугъл и насочи предизвестие за екзистенциалните рискове на ИИ. Ново научно изследване, оповестено в четвъртък, може да ускори тези опасения.

Неговият водещ създател е Майкъл Коен, откривател от Калифорнийския университет, Бъркли, който учи „ предстоящото държание на като цяло интелигентни изкуствени сътрудници “, изключително тези, които са задоволително способени да „ съставлява действителна опасност за нас, като ни възнамерява. ”

Коен обясни в изявление в четвъртък, че такива дълготрайни сътрудници за обмисляне на ИИ към момента не съществуват. Но „ те имат капацитета да бъдат “, защото софтуерните компании се стремят да комбинират днешната чатбот технология с по-съзнателни умения за обмисляне, употребявайки техника, известна като образование с укрепване.

„ Даването на задачата на усъвършенствана AI система да максимизира възнаграждението си и в даден миг задържането на премия от нея, мощно подтиква AI системата да извади хората от цикъла, в случай че има опция, “ съгласно публикацията, чиито съавтори включват видни учени по изкуствен интелект Йошуа Бенгио и Стюарт Ръсел и професор по право и някогашен консултант на OpenAI Джилиан Хадфийлд.

„ Надявам се, че сме създали по този начин, че хората в държавното управление да решат да стартират да мислят съществено по отношение на тъкмо какви разпореждания са ни нужни, с цел да се оправим с този проблем “, сподели Коен. Засега „ държавните управления знаят единствено това, което тези компании решат да им кажат. “

Твърде законно ли е да напуснете AGI?

С толкоз доста пари, които се движат върху обещанието за прогрес на AI, не е изненада, че AGI също се трансформира в корпоративна фешън дума, която от време на време притегля квази-религиозен жар.

Това раздели част от софтуерния свят сред тези, които настояват, че би трябвало да се развива постепенно и деликатно, и други – в това число рисковите капиталисти и рапъра MC Hammer – които се оповестиха за част от лагера на „ акселераторите “.

Базираният в Лондон стартъп DeepMind, учреден през 2010 година и в този момент част от Гугъл, беше една от първите компании, които категорично се заеха да разработят AGI. OpenAI направи същото през 2015 година по-късно с заричане, фокусирано върху сигурността.

Но в този момент може да наподобява, че всички останали скачат на бандата. Съоснователят на Гугъл Сергей Брин неотдавна беше забелязан да излиза в калифорнийско заведение, наречено AGI House. И по-малко от три години откакто промени името си от Фейсбук, с цел да се концентрира върху виртуалните светове, Meta Platforms през януари разкри, че AGI също е на върха на дневния ред.

Главният изпълнителен шеф на Meta Марк Зукърбърг сподели, че дълготрайната цел на неговата компания е „ създаване на цялостна обща просветеност “, която ще изисква прогрес в разсъжденията, планирането, кодирането и други когнитивни качества. Докато компанията на Зукърбърг от дълго време има откриватели, фокусирани върху тези тематики, вниманието му беше смяна в тона.

В Amazon един симптом за новите известия беше, когато основният академик за гласовия помощник Alexa смени длъжността си, с цел да стане основен академик за AGI.

Въпреки че не е толкоз осезаемо за Уолстрийт като генеративния AI, излъчването на упоритости за AGI може да помогне за наемането на гении за AI, които имат избор къде желаят да работят.

При вземането на решение сред „ остарели -училищен AI институт “ или подобен, чиято „ цел е да построи AGI “ и разполага с задоволително запаси за това, мнозина биха избрали второто, сподели Вие, откривател от Университета на Илинойс.